Lầu phượng hoàng trong Byodoin, một công trình kiến trúc Phật giáo được xây dựng vào thời kỳ Heian.

Khi Nhật hoàng Kammu rời kinh đô tới Heian-kyō (Kyoto), trung tâm của hoàng gia trong hơn 1000 năm sau đó. Kammu không chỉ muốn tăng cường quyền lực hoàng đế mà còn củng cố vị thế địa chính trị của bộ máy cai trị. Kyoto có một con sông dẫn ra biển và có thể đến được bằng đường bộ qua các tỉnh phía Đông. Thời Heian giai đoạn đầu (784-967) là sự tiếp tục văn hóa thời kì Nara, thủ đô Heian (Kyoto) được thiết kế theo kiểu kinh đô Trường An của nhà Đường. Nara cũng như vậy nhưng ở quy mô lớn hơn. Bất chấp sự suy thoái của các cải cách Taika-Taihō, chính quyền hoàng gia vẫn rất mạnh vào giai đoạn đầu thời kì Heian. Sự thật là, việc Nhật Hoàng Kammu tránh xa các cải cách mạnh mẽ đã làm giảm cường độ các cuộc đấu tranh chính trị và ông đã được thừa nhận là một trong những hoàng đế mạnh mẽ nhất của Nhật Bản.

Dù đã bỏ chế độ nghĩa vụ quân sự năm 792, Kammu vẫn tiến hành những cuộc tấn công quân sự lớn nhằm thu phục người Emishi, những người được cho là con cháu của người thời kỳ Jōmon đã di cư, sống ở Bắc và Đông Nhật Bản. Sau khi thu được một số lãnh thổ năm 794, năm 797 Kammu bổ nhiệm một tướng lĩnh mới với tên hiệu Chinh di đại tướng quân. Năm 801, vị tướng này đánh bại người Emishi và mở rộng lãnh địa hoàng gia tới cuối phía Đông của đảo Honshū. Quyền lực hoàng đế với các tỉnh ở thời điểm mong manh nhất. Tuy nhiên, trong thế kỉ 9 và 10, phần lớn quyền lực rơi vào tay các gia tộc lớn, họ không coi trọng các vùng đất có phong cách Trung Hoa và hệ thống thuế của chính quyền tại Kyoto. Sự ổn định đến với thời kì Heian, dù sự kế vị được đảm bảo cho gia đình hoàng đế theo phương thức truyền ngôi, quyền lực lại lần nữa tập trung vào tay của dòng họ quý tộc như gia tộc Fujiwara.

Tranh cuộn vào khoảng 1130, minh họa một cảnh từ chương "Sông tre’’ trong "Truyện kể Genji.

Sau cái chết của Kammu năm 806 và sự tranh giành quyền kế vị của hai con trai ông, hai cơ quan mới được thành lập để điều chỉnh lại hệ thống hành chính Taika-Taihō. Thông qua Ngự tiền viện, Hoàng đế có thể soạn thảo các chiếu chỉ trực tiếp và chắc chắn hơn trước kia. Ban Cảnh binh thủ thay thế các đơn vị cấm vệ mang nặng tính nghi lễ. Trong khi hai cơ quan này củng cố quyền lực của Thiên hoàng, chúng và các cấu trúc kiểu Trung Hoa khác nhạt dần khi đất nước phát triển hơn. Ảnh hưởng Trung Hoa thực sự chấm dứt với đoàn sứ bộ của Hoàng gia đến nhà Đường năm 838. Nhà Đường là một đất nước đang suy vong, và Phật giáo Trung Quốc đang bị khủng bố quyết liệt, làm xói mòn sự kính trọng của người Nhật với các thể chế Trung Quốc. Nhật Bản bắt đầu thay đổi theo chiều hướng hướng nội hơn.

Giống như gia tộc Soga nắm quyền kiểm soát ngai vàng trong thế kỷ 6, gia tộc Fujiwara đã thông hôn với Hoàng gia trong thế kỷ 9, và một trong những thành viên của họ trở thành người đứng đầu Ngự tiền phòng của Hoàng đế. Một người nhà Fujiwara khác trở thành Nhiếp chính quan, Sessho cho cháu trai mình, khi đó là một ấu chúa, và một người nữa được phong chức Kanpaku. Cho đến cuối thế kỷ 9, vài Thiên Hoàng cố gắng, nhưng thất bại để kìm hãm nhà Fujiwara. Tuy vậy, có một lần dưới triều Nhật Hoàng Đề Hồ (897-930), chế độ nhiếp chính Fujiwara bị gián đoạn vì Nhật hoàng trực tiếp trị vì.

Tuy nhiên, gia tộc Fujiwara không hề bị suy yếu dưới triều Đề Hồ mà thực tế họ còn mạnh hơn. Tập quyền ở Nhật Bản tiếp tục bị xói mòn, và nhà Fujiwara, cùng với vài gia đình lớn và tổ chức tôn giáo, có thêm nhiều shōen (trang ấp) và vô cùng giàu có vào đầu thế kỷ 10. Vào đầu thời Heian, các shōen đã có được địa vị pháp lý, và các tổ chức tôn giáo lớn giữ lấy cái danh vĩnh cửu, từ chối nộp thuế, và miễn nhiễm trước việc kiểm soát của chính quyền với các shōen mà họ nắm giữ. Những người canh tác trên đất thấy việc đổi tên gọi thành shōen rất có lợi cho phần chia sau vụ mùa. Nhân dân và đất đai ngày càng vuột khỏi tầm kiểm soát của thuế khóa và triều đình, thực tế đã trở lại tình trạng trước Cải cách Taika.

Tranh Fujiwara Michinaga, Kikuchi Yōsai vẽ.

Trong vòng một thập kỷ sau cái chết của Đề Hồ, gia tộc Fujiwara nắm quyền kiểm soát toàn diện triều đình. Năm 1000, Fujiwara no Michinaga đã có thể phế lập Thiên Hoàng theo ý muốn. Rất ít quyền lực thuộc về chế độ hành chính truyền thống, và việc triều chính nằm cả trong tay gia tộc Fujiwara. Gia tộc Fujiwara được nhà sử học George B. Sansom gọi là "độc tài cha truyền con nối."

Bất chấp việc chiếm đoạt vương quyền, nhà Fujiwara vẫn tạo ra một thời kỳ nở hoa của nghệ thuật và mỹ học giữa triều đình và tầng lớp quý tộc. Những vần thơ duyên dáng cùng văn học tiếng bản ngữ rất được ưa chuộng. Văn tự tiếng Nhật đã từ lâu dựa vào kanji, nay nó được bổ sung thêm bằng kana, hai cách phát âm chữ viết Nhật Bản: katakana, một hệ thống dựa vào trí nhớ sử dụng chữ tượng hình Trung Hoa; và hiragana, bảng ký hiệu âm tiết bằng chữ thảo với một phương pháp viết riêng biệt đặc sắc Nhật Bản. Hiragana cho người viết cảm xúc với những từ phát âm, và với nó, lại càng quảng bá cho sự nổi tiếng của văn học tiếng Nhật, đa phần các tác phẩm được những người phụ nữ trong triều viết ra, họ đều không biết tiếng Trung Quốc như đàn ông. Ba phụ nữ cuối thế kỷ 10, đầu thế kỷ 11 đã giới thiệu cái nhìn về cuộc sống và sự lãng mạn ở triều đình Heian trong "Tinh Linh Nhật ký" (蜻蛉日記 Kagero nikki) do "mẹ của Fujiwara Michitsuna" viết, "Truyện gối đầu" của Sei Shōnagon và "Truyện kể Genji" của Murasaki Shikibu. Nghệ thuật bản xứ cũng nở hoa dưới triều đại Fujiwara sau hàng thế kỷ noi theo hình mẫu Trung Hoa. Những bức vẽ phong cách Nhật Bản sặc sỡ yamato-e về đời sống triều đình và những câu chuyện về đền thờ và nơi linh thiêng trở thành thông dụng vào giữa và cuối thời Heian, trở thành khuôn mẫu cho nghệ thuật Nhật Bản ngày nay.

Khi văn hóa phát triển rực rỡ, sự phân quyền cũng ngày càng trầm trọng. Trong khi thời kỳ đầu tiên của phát triển shōen vào đầu thời kỳ Heian đã chứng kiến việc khai hoang nhiều đất đai mới và việc phong đất cho các nhà quý tộc và các thể chế tôn giáo, thời kỳ thứ hai chứng kiến gia sản các "gia tộc triều đình" phình lên. (Thực tế, hệ thống gia tộc cũ vẫn gần như còn nguyên vẹn ở trong triều đình tập quyền cũ). Các thể chế mới nay cần đối diện với sự thay đổi về xã hội, kinh tế, và chính trị. Luật Taihō mất hiệu lực, các thể chế của nó bị gạt khỏi chức năng nghi lễ. Hệ thống hành chính gia đình nay trở thành thể chế chung. Khi gia đình quyền lực nhất Nhật Bản, nhà Fujiwara thống trị Nhật Bản và quyết định mọi việc triều chính, ví dụ như việc thừa kế ngai vàng. Việc gia đình và triều chính hoàn toàn bị trộn lẫn, một hình mẫu được bắt chước bởi các gia đình khác, các tu viện, và thậm chí cả Hoàng gia. Việc quản lý đất đai trở thành công việc chính yếu của các gia đình quý tộc, không nhiều sự quản lý trực tiếp từ Hoàng gia hay chính phủ trung ương vì quyền lực của họ đã suy giảm và sự đoàn kết lớn trong gia đình và việc thiếu ý thức thống nhất quốc gia của người Nhật.

Tầng lớp quân sự cầm quyền

Vào đầu thời này, khi chế độ cưỡng bách tòng quân vẫn được trung ương kiểm soát, các hoạt động quân sự không nằm trong tay của các quý tộc địa phương. Nhưng khi hệ thống này bị dỡ bỏ sau năm 792, các thế lực địa phương trở thành nguồn sức mạnh quân sự chủ yếu. Những người chủ Shōen đã trở thành những người đầy quyền thế và, vì họ đã tiếp thu được kỹ thuật quân sự tiến bộ (ví dụ như phương pháp huấn luyện, cung, tên, ngựa khỏe hơn và những thanh kiếm siêu hạng) và đối mặt với tình hình địa phương ngày càng tồi tệ đi trong thế kỷ 9, hoạt động quân sự trở thành một phần của đời sống các shoen. Không chỉ các "shoen" mà cả các thế chế dân sự và tôn giáo cũng tổ chức các đơn vị bảo an riêng để bảo vệ chính mình. Dần dần, tầng lớp trên ở địa phương chuyển thành giai cấp quý tộc quân sự dựa trên tư tưởng của bushi (võ sĩ) hay samurai.

Sự hâm mộ các võ sỹ gồm nhiều loại khác nhau, phá vỡ cơ cấu quyền lực xưa cũ và tạo ra những quan hệ mới trong thế kỷ 9. Tầm quan trọng của tình cảm, những mối liên hệ gia đình, và mối quan hệ họ hàng được củng cố trong các nhóm quân sự và trở thành một phần của chế độ gia đình trị. Trong thời đại này, các gia tộc quân sự lớn ở địa phương tập hợp xung quanh những quý tộc triều đình, những người đã trở thành những nhân vật địa phương nổi bật. Những gia tộc quân sự gây dựng thanh thế bằng mối liên hệ với hoàng gia, các danh gia quân sự tại triều đình và tiếp cận với nguồn nhân lực. Các gia tộc Fujiwara, Taira và Minamoto nằm trong số những gia tộc nhận được sự ủng hộ lớn nhất của các giai tầng quân sự mới.

Sản lượng lương thực suy giảm, dân số gia tăng, và cạnh tranh giữa các gia đình lớn về các nguồn lực đều dẫn đến sự suy giảm dần quyền lực của nhà Fujiwara và làm gia tăng sự mất ổn định quân sự vào giữa thế kỷ 10 và thế kỷ 11. Thành viên của các gia tộc Fujiwara, Taira, và Minamoto—tất cả đều có nguồn gốc hoàng gia—tấn công lẫn nhau, tuyên bố quyền kiểm soát những dải đất lớn của những vùng đất chiếm được, thiết lập những chế độ thù địch, và nói chung là đã phá vỡ nền hòa bình của Xứ sở Mặt trời mọc.

Nhà Fujiwara kiểm soát ngai vàng cho đến triều đại Thiên hoàng Hậu Tam Điều (1068-73), Thiên hoàng đầu tiên không do một người mẹ từ gia đình Fujiwara sinh ra kể từ thế kỷ 9. Go-Sanjo, quyết tâm phục hồi đế quyền qua sức mạnh kiểm soát cá nhân, thi hành các cải cách để kiềm chế ảnh hưởng của nhà Fujiwara. Ông cũng thiết lập một cơ quan để soạn thảo và xác nhận tính hợp lệ của các hồ sơ bất động sản với mục đích tái xác nhận quyền kiểm soát trung ương. Shōen không có giấy phép đúng đắn, và những người nắm giữ đất đai lớn, như nhà Fujiwara, cảm thấy bị đe dọa vì mất đi nhiều đất đai. Go-Sanjo cũng thành lập Incho, hay "Viện Sảnh", do người thừa kế của Thiên Hoàng đứng đầu, người từ bỏ quyền lợi để cống hiến bản thân mình cho sự cai trị ở hậu trường, hay Insei ("Viện Chính’’).

Incho lấp đầy khoảng trống quyền lực của nhà Fujiwara. Thay vì bị xua đuổi, nhà Fujiwara trở lại vị trí cũ của mình là độc tài dân sự và Trung Đại Nhân và thường bị bỏ qua trong việc ra các quyết định. Trong thời gian này, rất nhiều người nhà Fujiwara bị thay thế, phần lớn là bởi thành viên của gia tộc Minamoto đang nổi lên. Trong khi nhà Fujiwara bất hòa và chia thành hai phe Bắc Nam, hệ thống "Insei" cho phép huyết thống trực hệ hoàng gia lại giành được ảnh hưởng đằng sau ngai vàng. Thời kỳ từ năm 1086 đến năm 1156 là thời gian của "Incho" có quyền uy tối thượng và sự nổi lên của tầng lớp quân sự trên toàn quốc. Quân sự thay vì dân sự đã thống trị triều đình.

Tranh vẽ trận Dan-no-ura ngày 25 tháng 4, 1185, chiến tranh Genpei.

Tranh đoạt ngai vàng vào giữa thế kỷ 12 cho nhà Fujiwara cơ hội để tái lập quyền lực của mình. Fujiwara no Yorinaga sát cánh cùng vị Thiên Hoàng già trong một trận quyết chiến năm 1156 chống lại người được cho là người kế vị, được sự ủng hộ của hai gia tộc Taira và Minamoto (Bạo loạn Hogen). Cuối cùng, nhà Fujiwara bị tiêu diệt, hệ thống triều đình cũ bị thay thế, và hệ thống "Insei" không còn quyền lực vì bushi (võ sỹ) nắm việc triều chính, tạo ra một bước ngoặt trong lịch sử Nhật Bản. Năm 1159, hai nhà Taira và Minamoto xung đột (Bạo loạn Heiji), và 20 năm quyền lực của nhà Taira bắt đầu.

Taira no Kiyomori nổi lên như một thế lực thực sự ở Nhật Bản sau sự suy yếu của nhà Fujiwara, và ông ta sẽ nắm quyền lãnh đạo trong 20 năm tới. Ông đã cho con gái Tokuko kết hôn với Thiên hoàng Takakura, người chỉ mới 19 tuổi, để lại đứa con trai sơ sinh Antoku để kế vị ngai vàng. Kiyomori đã lấp đầy không dưới 50 vị trí của chính phủ bằng người thân của mình, xây dựng lại Biển nội địa và khuyến khích giao thương với Nhà Tống Trung Quốc. Ông cũng đã thực hiện các hành động mạnh mẽ để bảo vệ quyền lực của mình khi cần thiết, bao gồm việc loại bỏ và lưu đày 45 quan chức tòa án và san bằng hai ngôi đền rắc rối, Todai-ji và Kofuku-ji.[cần dẫn nguồn]

Taira bị quyến rũ bởi đời sống triều đình và bỏ qua các vấn đề ở các tỉnh[cần dẫn nguồn], nơi gia tộc Minamoto đang xây dựng lại sức mạnh của họ. Năm 1183, hai năm sau cái chết của Kiyomori, Yoritomo Minamoto đã phái anh em Yoshitsune và Noriyori tấn công Kyoto. Taira bị đánh lạc hướng và buộc phải chạy trốn, và Thái hậu đã cố gắng tự dìm mình và Hoàng đế 7 tuổi (ông đã chết, nhưng mẹ ông vẫn sống sót). Con trai khác của Takakura đã thành công với tư cách là Thiên hoàng Go-Toba.[cần dẫn nguồn]

Với tài tổ chức của Yoritomo, hệ thống bakufu cai trị Nhật Bản trong bảy thế kỷ tiếp theo đã được áp dụng. Ông bổ nhiệm các thống đốc quân sự, hay daimyō , để cai trị các tỉnh và quản gia, hoặc jito để giám sát các khu vực công cộng và tư nhân. Yoritomo sau đó chuyển sự chú ý của mình đến việc loại bỏ gia tộc Fujiwara hùng mạnh, nơi che chở cho người anh em nổi loạn Yoshitsune. Ba năm sau, ông được bổ nhiệm shōgun ở Kyoto. Một năm trước khi qua đời vào năm 1199, Yoritomo đã trục xuất Thiên hoàng thiếu niên Go-Toba khỏi ngai vàng. Hai con trai của Go-Toba đã kế vị nhưng họ cũng sẽ bị những người kế vị chức shōgun của Yoritomo xóa bỏ. [cần dẫn nguồn]